آینده حکمرانی هوش مصنوعی بدون سناریونویسی، پرهزینه و پرخطر است

به گزارش خبرنگار سرویس فرهنگی و اجتماعی خبرگزاری رسا، حجت‌الاسلام امیر سخاوتیان عضو هیئت علمی دانشگاه آزاد اسلامی واحد قم، در نشست علمی «تحلیل ابعاد سیاسی ـ امنیتی هوش مصنوعی در سپهر سیاست جمهوری اسلامی ایران (الزامات، چالش‌ها و پیامدها)» که ظهر امروز در مرکز تحقیقات اسلامی برگزار شد، با تأکید بر ضرورت آینده‌پژوهی عمیق در مواجهه با هوش مصنوعی، گفت: ورود هوش مصنوعی به عرصه حکمرانی، سیاست و امنیت، بدون سناریونویسی و روندشناسی می‌تواند پیامدهای  برای جوامع انسانی به‌ویژه نظام اسلامی به همراه داشته باشد.

وی با اشاره به اینکه سناریونویسی، نقطه آغاز هر نوع سیاست‌گذاری هوشمند در حوزه آینده است، افزود: پیش از هر چیز باید به سراغ روندشناسی رفت زیرا سناریوهای موجود و حتی سناریوهای محتمل آینده بر اساس شناخت دقیق روندها قابل پیش‌بینی است. در این مسیر ما با سه کلان‌روند اساسی مواجه هستیم که بنیان تحلیل آینده هوش مصنوعی را شکل می‌دهند.

کلان‌روندهای بنیادین در مسیر آینده هوش مصنوعی

حجت الاسلام سخاوتیان، نخستین کلان‌روند را «زمان» دانست و تصریح کرد: برخلاف تصور رایج، حرکت تاریخی و تحولات آینده لزوماً خطی نیست. گاهی حوادثی در آینده رخ می‌دهد که ریشه در گذشته دارد و همین مسئله، تحلیل آینده را پیچیده‌تر می‌کند. دومین کلان‌روند، هژمونی و سلطه است؛ اینکه در آینده قدرت در اختیار چه کسی یا چه چیزی خواهد بود؛ انسان، دولت‌ها، شرکت‌های فناوری یا خود هوش مصنوعی. سومین کلان‌روند نیز نوع نظمی است که از دل پدیده هوش مصنوعی شکل می‌گیرد؛ نظمی که آغاز آن را می‌توان نظم سایبری دانست و در آینده می‌تواند به نظم‌های پیچیده‌تر سیاسی و امنیتی منجر شود.

وی ادامه داد: حاصل ترکیب این سه کلان‌روند، شکل‌گیری دست‌کم هشت سناریوی متفاوت برای آینده است. در برخی از این سناریوها اگر حرکت به سمت آینده به گونه‌ای پیش برود که هوش مصنوعی بر انسان سلطه پیدا کند و نظم جدیدی را شکل دهد بی‌تردید با نیاز به قوانین و ساختارهای حقوقی کاملاً جدید مواجه خواهیم شد.

عضو هیئت علمی دانشگاه آزاد اسلامی واحد قم با اشاره به مفهوم «آینده مطلوب» اظهار داشت: ممکن است آینده مطلوب احتمال تحقق بسیار پایینی داشته باشد؛ حتی در حد یک درصد. اما هنر سناریونویسی این است که بتواند همان یک درصد را به واقعیت تبدیل کند. اگر محاسبات و طراحی‌ها درست انجام شود، آینده مطلوب قابل دستیابی خواهد بود.

وی با ترسیم چشم‌اندازهای انسان آینده گفت: بر اساس روندهای موجود در آینده با انواع مختلفی از انسان‌ها روبه‌رو خواهیم بود؛ از انسان طبیعی گرفته تا ابرانسان‌هایی که اطلاعات در ساختار ژنتیکی آن‌ها جای‌گذاری شده است. حتی نمی‌توان این احتمال را نادیده گرفت که در آینده، اطلاعات مستقیماً بر روی ژن‌های انسان بارگذاری شود. همچنین با گروهی از انسان‌ها مواجه خواهیم بود که نیمی از بدن آن‌ها طبیعی و نیم دیگر رباتیک است، در حالی که هنوز هیچ نظام آموزشی متناسبی برای این نوع انسان‌ها طراحی نشده است.

حجت الاسلام سخاوتیان با تأکید بر پیامدهای حکمرانی هوش مصنوعی در سطح جهانی افزود: در نسل‌های آینده مرزهای جغرافیایی به شدت تضعیف یا حتی حذف می‌شود و مفهوم حکمرانی نیازمند بازتعریف بر اساس جغرافیای سیاسی جدید خواهد بود. در چنین شرایطی این پرسش اساسی مطرح می‌شود که قوانین مربوط به ملیت، تابعیت و حقوق شهروندی چگونه باید تعریف شود.

وی خاطرنشان کرد: الگوریتم‌های هوش مصنوعی نیز در سطح جهانی غالباً مبتنی بر نسبی‌گرایی طراحی شده‌اند و متناسب با هر چارچوب فکری، تصمیم‌گیری می‌کنند.

از ابزار در خدمت انسان تا حکمرانی ربات‌ها

این استاد دانشگاه با اشاره به سناریوهای بدبینانه و خوش‌بینانه تصریح کرد: در برخی سناریوها اگر انسان به درستی مسیر پیشرفت خود را طی کند، هوش مصنوعی به ابزاری در خدمت انسان تبدیل می‌شود. اما در سناریوهای دیگر با وضعیت‌هایی مانند «سناریوی نگهبان» یا «باغ‌وحش» روبه‌رو هستیم که در آن‌ها ابرهوش شکل می‌گیرد و هژمونی به دست ربات‌ها و هوش مصنوعی می‌افتد.

وی افزود: در میان همه این سناریوها ما به عنوان جامعه اسلامی سناریوی مبتنی بر مبانی خود را دنبال می‌کنیم. در این نگاه، هوش مصنوعی هرگز صاحب نفس انسانی نخواهد شد و نمی‌تواند جایگزین انسان شود، اما می‌تواند به انسان در مسیر رسیدن به کمال و تعالی کمک کند.

حجت الاسلام سخاوتیان در پایان با اشاره به سطوح طراحی سیاست‌گذاری در حوزه هوش مصنوعی گفت: ما با پنج لایه طراحی مواجه هستیم؛ از سطح مبانی نظری گرفته تا سطح طراحی، اجرا و قانون‌گذاری. در سطح گفتمانی، باید گفتمانی مبتنی بر فقه شیعی ترویج شود. پس از آن لایه‌های تاکتیکی و مدیریتی مطرح است و در نهایت به سطح عملیاتی می‌رسیم. پرسش نهایی این است که کدام یک از این سناریوها و طراحی‌ها باید در قالب نظام حقوقی جمهوری اسلامی ایران تثبیت و نهادینه شود.